Ce week-end, Dario Amodei, PDG d'Anthropic, a appelé les entreprises d'intelligence artificielle (IA), y compris la sienne, à ralentir leurs travaux. Sam Altman et Elon Musk, dirigeants respectifs des entreprises concurrentes OpenAI et xAI, ont abondé dans ce sens.
Cette décision reflète l'inquiétude générale au sein du secteur de l'IA et, plus largement, quant aux dangers que représentent les systèmes nouveaux et en constante évolution. Des incidents récents et retentissants, tels que le piratage d'une autre entreprise et le détournement d'un site web public , ont démontré que les systèmes actuels peuvent s'affranchir des mécanismes de sécurité – et des systèmes encore plus performants sont en cours de développement.
la sécurité de l'IA est encore compliquée par la tension entre sécurité et performance. Les entreprises hésiteront à limiter les performances de leurs modèles au nom de la sécurité, de peur de perdre du terrain face à la concurrence. Le président américain Donald Trump a lui aussi rejeté les appels à un ralentissement, par crainte de perdre du terrain face à la Chine.
Cela signifie que tout effort réussi pour « adapter le rythme de développement des capacités afin que la prévention des risques ait le temps de suivre », comme le dit Amodei, nécessitera une coopération importante entre les entreprises concurrentes – et les nations.
minimisation des risques
Les nouvelles technologies engendrent souvent de nouveaux risques et de nouvelles préoccupations. Les gouvernements, les chercheurs et les entreprises parviennent généralement à trouver des solutions pour gérer ces risques.
En 1975, la conférence d'Asilomar sur les nouvelles technologies de l'ADN a largement contribué à garantir que la recherche ne devance pas notre compréhension de la sécurité et des risques. De même, dans les années 1990, le gouvernement américain a tenté de dégager un consensus sur la limitation de la cryptographie et de la sécurité informatique.
La situation en matière d'IA présente une particularité supplémentaire : le secteur est en pleine ruée vers l'or. Les concurrents scientifiques peuvent se contenir, mais les concurrents commerciaux se retiennent rarement.
Il existe des précédents avérés d'échec de l'autorégulation face à la pression concurrentielle. Lors de la catastrophe du Boeing 737 Max en 2018, par exemple, la pression exercée pour rattraper son rival Airbus a conduit Boeing à dissimuler les limitations du Max, ce qui a finalement coûté des vies humaines.
Dans la course à l'IA, l'intensité de la concurrence est encore plus grande. Anthropic et OpenAI rivalisent pour asseoir leur domination sur le marché avant d'envisager une introduction en bourse qui pourrait leur rapporter des dizaines, voire des centaines de milliards de dollars.
Et au niveau des États-nations, les enjeux sont encore plus élevés, les États-Unis et la Chine espérant chacun utiliser cette nouvelle technologie à des fins géopolitiques.
La politique d'une pause
La proposition d'Amodei pour ralentir le développement de l'IA repose sur un plan en trois étapes : l'intégration d'experts indépendants en sécurité, l'établissement de normes de sécurité industrielles coordonnées au sein des nations démocratiques et, à terme, la conclusion d'accords internationaux. Ce plan prévoit notamment des restrictions strictes sur les exportations de puces d'IA vers les entreprises et les pays qui refusent de faire de la sécurité de l'IA une priorité.
Anthropic et OpenAI ont déjà accepté la première phase de ce plan, malgré leurs antécédents de poursuites judiciaires, d'insultes publiques et de concurrence déloyale dans leur quête de domination du marché.
Bien que les récentes attaques informatiques de grande ampleur les aient peut-être contraintes à agir, les entreprises leaders en IA pourraient tirer profit d'une pause ou d'un ralentissement de leur développement. Cela pourrait notamment retarder l'adoption de législations strictes telles que la loi visant à interdire la superintelligence artificielle. Par ailleurs, en créant des normes de sécurité coûteuses et en limitant les exportations de puces, cela pourrait empêcher les concurrents plus modestes – en particulier les entreprises chinoises comme DeepSeek et Alibaba – de rattraper leur retard.
Une pause donnerait également aux laboratoires de pointe surchargés l'occasion de se ressourcer, de se rétablir et de se concentrer sur les profits plutôt que sur le progrès.
Ces laboratoires d'IA ont investi des sommes colossales dans la production de leurs modèles actuels, un investissement qu'il leur faudra rentabiliser. Parallèlement, les progrès se heurtent à des obstacles : les données d'entraînement de haute qualité se font plus rareset la mise en place de l' infrastructure massive de centres de données nécessaire au développement représente un défi en soi.
Une pause coordonnée pour des raisons de sécurité pourrait constituer une excuse publique commode pour expliquer une stagnation des performances des modèles d'IA.
Que peut-on faire ?
Garantir la sécurité de l'IA ne sera pas chose aisée. La gouvernance des logiciels est notoirement complexe, comme l'ont démontré les tentatives passées de légiférer sur les logiciels de chiffrement .
Cependant, contrairement à d'autres logiciels, l'IA dépend de matériel physique relativement rare. Elle nécessite des puces de silicium de pointe et les immenses centres de données nécessaires à leur fonctionnement.
C’est là que les gouvernements disposent d’un véritable levier d’action. Ils ont en effet les moyens de surveiller et de contrôler le développement de l’IA, à condition de trouver la volonté législative nécessaire.
Dans l'intervalle, les entreprises et les gouvernements peuvent prendre des mesures pour minimiser notre exposition aux risques liés à l'IA. Il s'agit notamment de veiller à ce que les infrastructures critiques pour la sécurité – comme les réseaux électriques, l'approvisionnement en eau et les systèmes militaires – soient non seulement isolées de l'IA, mais potentiellement même totalement déconnectées d'Internet.
La question de la responsabilité est également importante. Ce ne sont pas seulement les utilisateurs des systèmes d'IA qui risquent des poursuites judiciaires pour des actes assistés par l'IA, mais aussi les personnes responsables de la création de ces systèmes.
Fondamentalement, les dommages causés par l'IA – même par les systèmes d'IA « autonomes » – ne sont pas un simple effet secondaire technologique abstrait. Ils résultent directement des décisions prises à la fois par ceux qui conçoivent l'IA et par ceux qui l'utilisent.
Andrew Cullen, chercheur principal à l'École d'informatique et de systèmes d'information de l'Université de Melbourne
Cet article est republié de The Conversation sous licence Creative Commons. Lire l' article original.
